Las laxas políticas de moderación de Elon Musk en su red social X alcanzaron límites impensados en este inicio de 2026. En el último tiempo, Grok, la inteligencia artificial de la plataforma, se encargó de crear contenido sexual de menores y mujeres, lo que generó el repudio masivo de usuarios, organizaciones de derechos, gobernantes y altos funcionarios. Estos sectores rechazaron enérgicamente la medida inicial de su creador de restringir la función únicamente para los miembros "premium"; sin embargo, ante la escalada del conflicto, la empresa debió anunciar que ya nadie podrá generar este tipo de material, sin importar su tipo de suscripción.

Escándalo con la IA de Elon Musk: X restringió Grok tras denuncias por generar imágenes sexuales de menores

Entre la controversia, senadores y asociaciones presionan para que Google y Apple eliminen el acceso a la red social y su aplicación de Inteligencia Artificial de las tiendas oficiales. Una coalición de casi 30 grupos de defensa, entre los que se encuentran entidades a favor de la seguridad infantil, derechos de las mujeres y la privacidad, a los que además se suman legisladores estadounidenses e internautas, insistió a través de cartas abiertas en la eliminación de X y Grok de la Play Store y la Apple Store, alegando que el material generado viola las políticas de las empresas de tecnología.

Cartas abiertas para retirar a X de la Play Store y Apple Store 

"Exigimos que los líderes de Google eliminen urgentemente Grok y X de Play Store para evitar más abusos y actividades delictivas", expresan las cartas enviadas este miércoles al CEO de Apple, Tim Cook, y al CEO de Google, Sundar Pichai. Por el momento, ambas compañías no han respondido a las solicitudes de comentarios.

Las misivas advierten que "Grok se está utilizando para crear cantidades masivas de representaciones visuales íntimas no consentidas (NCII), incluyendo material de abuso sexual infantil (CSAM), contenido que constituye un delito penal y que infringe directamente las Directrices de Revisión de Aplicaciones de Apple". Dado que la IA está integrada directamente en X, instan a retirar de inmediato el acceso a ambos servicios.

La respuesta de la compañía ante los hechos

El jueves, xAI, la compañía que desarrolló el chatbot, señaló en una actualización de seguridad que ahora "geobloqueará" a los usuarios para que no generen capturas de personas de carne y hueso en bikini, ropa interior y vestimenta similar. Si bien en un principio se había intentado limitar la herramienta a suscriptores de pago, la compañía aclaró: "Implementamos medidas tecnológicas para evitar la edición de imágenes de personas con ropa reveladora. Esta restricción aplica a todos los usuarios, incluidos los suscriptores de pago".

El miércoles, Elon Musk, propietario de X y xAI, expresó en una publicación que "no tiene conocimiento de imágenes de menores desnudos generadas por Grok. Literalmente, ninguna". También afirmó que el sistema rechaza las solicitudes para generar archivos ilegales. 

Repudio internacional 

Grok también está siendo objeto de escrutinio por parte de autoridades internacionales. El miércoles, el fiscal general de California, Rob Bonta,  anunció la apertura de una investigación sobre el material sexualmente explícito producido con Grok. 

Por su parte, el primer ministro del Reino Unido, Keir Starmer, planteó la semana pasada la posibilidad de prohibir X , que utiliza Grok, en Gran Bretaña debido a que la herramienta de inteligencia artificial genera imágenes sexualizadas de personas sin su consentimiento.